Motivación biomédica

• Ajustar parámetros de un modelo fisiológico o un predictor clínico con datos reales.
• Ejemplos típicos:
  • Estimar gasto energético a partir de IMC, edad y FC.
  • Estimar edad vascular con variables de laboratorio.
  • Clasificar presencia/ausencia de una condición (0/1) con biomarcadores.

Regresión Lineal

Regresión Lineal

Función de costo (error)

Función de costo (error)

Idea central del GD

• Partimos de \(\mathbf{w}_{(0)}\) (p. ej., aleatorio).
• Iteramos: \[ \mathbf{w}_{(t+1)} \;=\; \mathbf{w}_{(t)} \;-\; \alpha\, \nabla_{\mathbf{w}} J(\mathbf{w}_{(t)}) \]
• \(\alpha\) = tasa de aprendizaje: grande → rápido pero inestable; pequeña → estable pero lento.
• Convergencia: buscamos \(\nabla J \approx \mathbf{0}\).

Visualización conceptual: “valle” del error y trayectoria en zig-zag hacia el mínimo.

Algoritmo de Descenso de Gradiente

Variantes: batch, mini-batch, SGD

• Batch GD: usa todo el conjunto en cada actualización (costo alto por iteración).
• Mini-batch GD: usa lotes pequeños (compromiso eficiencia/ruido).
• SGD (estocástico): actualiza con una sola muestra por paso (barato, ruidoso, puede escapar de óptimos pobres).

Práctica recomendada: mini-batch (p. ej., 32–256).

Preprocesamiento y escalado

• Estandarizar o normalizar las \(x_j\) acelera y estabiliza GD.
• Centrar: \(x_j \leftarrow (x_j - \mu_j)/\sigma_j\).
• Manejo de outliers y transformaciones (log, Box–Cox) cuando aplique.

1.5 EDA

Empezar a usar jupyter.

Planteamiento

Objetivo biomédico (ejemplo): predecir gasto energético (kcal) a partir de edad, IMC y FC.

Modelo lineal: \[ \hat{y} = \mathbf{w}^\top \mathbf{x} = w_0 + w_1 x_1 + \cdots + w_p x_p \]

Costo (MSE): \[ J(\mathbf{w}) = \frac{1}{2m}\sum_{i=1}^{m}(y_i - \hat{y}_i)^2 \]

Gradiente: \[ \frac{\partial J}{\partial w_j} = -\frac{1}{m}\sum_{i=1}^{m}(y_i - \hat{y}_i)\,x_{ij} \]

Actualización: \[ w_j \leftarrow w_j - \alpha\,\frac{\partial J}{\partial w_j} \]

Pseudocódigo (mini-batch)

in: X (m×p), y (m), α, batch_size, epochs
preprocess: X ← standardize(X)

initialize w ← zeros(p+1)  # incluye sesgo w0 si se usa X̃ con columna 1

for epoch in 1..epochs:
    for B in iterate_minibatches(X, y, batch_size, shuffle=True):
        Xb, yb ← B
        yhat ← Xb · w
        grad ← (1/|B|) · (Xbᵀ · (yhat - yb))
        w ← w - α · grad

return w

Diagnóstico y validación

• Curva \(J\) vs. iteraciones (entrenamiento y validación).
• Errores residuales: homocedasticidad, estructura vs. predicción.
• Interpretación clínica de coeficientes \(w_j\) y unidades.
• Comparar con ecuaciones normales (solución cerrada) y discutir condicionamiento numérico.

Planteamiento

Objetivo biomédico (ejemplo): clasificar riesgo de enfermedad (0/1) con panel de biomarcadores.

Modelo: \[ \hat{p} = \sigma(\mathbf{w}^\top\mathbf{x}),\quad \sigma(z)=\frac{1}{1+e^{-z}} \]

Costo (entropía cruzada): \[ J(\mathbf{w}) = -\frac{1}{m}\sum_{i=1}^{m}\Big[y_i\log \hat{p}_i + (1-y_i)\log(1-\hat{p}_i)\Big] \]

Gradiente: \[ \frac{\partial J}{\partial w_j} = \frac{1}{m}\sum_{i=1}^{m}(\hat{p}_i - y_i)\,x_{ij} \]

Actualización: \[ w_j \leftarrow w_j - \alpha\,\frac{\partial J}{\partial w_j} \]

Pseudocódigo (mini-batch)

in: X (m×p), y∈{0,1}^m, α, batch_size, epochs
preprocess: X ← standardize(X)

initialize w ← zeros(p+1)

for epoch in 1..epochs:
    for B in iterate_minibatches(X, y, batch_size, shuffle=True):
        Xb, yb ← B
        z ← Xb · w
        p ← sigmoid(z)
        grad ← (1/|B|) · (Xbᵀ · (p - yb))
        w ← w - α · grad

return w

Inferencia: clasificar con umbral \(\hat{p} \ge \tau\) (clínico/operativo).

Métricas y curvas

• AUC-ROC, AUPRC, sensibilidad, especificidad, F1.
• Elección del umbral \(\tau\) por criterio clínico (p. ej., maximizar sensibilidad bajo límite de FPs).
• Calibración: curvas de confiabilidad.

Visualización de la frontera de decisión

• Con dos características (\(x_1, x_2\)), la frontera es una línea (hiperplano en general).
• Durante GD, la frontera rota/traslada hasta estabilizarse.
• Añadir términos polinomiales o bases para fronteras no lineales; GD sigue aplicando.

Hiperparámetros y trucos prácticos

• Tasa de aprendizaje (\(\alpha\)): búsqueda en rejilla o programación de tasa (decay).
• Inicialización: pequeña aleatoria (cero puede estancar con ciertas variantes).
• Barajado por época y mini-batches estratificados si la clase es rara.
• Regularización (L2/L1) para estabilidad e interpretabilidad: \[ J_{\lambda} = J + \frac{\lambda}{2}\|\mathbf{w}\|_2^2 \quad \text{(Ridge)} \]
• Detección de fuga de datos y validación por sujeto en estudios clínicos.

Checklist de la sesión (rápido)

• Estandarizaste variables de entrada.
• Definiste costo adecuado (MSE vs. CE).
• Elegiste mini-batch y \(\alpha\) razonables.
• Verificaste convergencia con curva de \(J\).
• Evaluaste con métricas adecuadas al objetivo clínico.
• Documentaste supuestos y limitaciones.

Contexto clínico (CTG)

Generada con Gemini

Contexto clínico (CTG)

Contexto clínico (CTG)

• CTG registra FCF y contracciones uterinas.
• Clasificación clínica (FIGO): normal / sospechoso / patológico.
• Variabilidad, aceleraciones y desaceleraciones son claves.

Regresión Lineal

Idea clave

Aproxima una relación lineal \(\hat{y} = \beta_0 + \sum_j \beta_j x_j\)minimizando MSE.

Ejemplo didáctico (CTG)

Usamos una variable continua de CTG como respuesta (p. ej., histogram_width) para ilustrar ajuste y residuales.

Discusión: supuestos (linealidad, homocedasticidad, independencia), diagnóstico con residuales.

Regresión Logística

Idea clave

Modela \(P(Y=1 \mid \mathbf{x}) = \sigma(\beta_0 + \mathbf{x}^\top \beta)\) con sigmoide \(\sigma(z)=1/(1+e^{-z})\).

1. Definición de Regresión Logística

La Regresión Logística es un algoritmo de aprendizaje automático supervisado utilizado fundamentalmente para problemas de clasificación binaria.

A pesar de su nombre, su objetivo no es predecir un valor continuo, sino modelar la probabilidad (\(P\)) de que una observación pertenezca a una clase específica (usualmente denotada como \(Y=1\)).

El modelo toma variables de entrada (features) \(x_1, \dots, x_n\) y estima \(P(Y=1 | \mathbf{x})\).

2. El Mecanismo Central del Modelo

El modelo logístico opera en dos pasos cruciales:

2.1. El Componente Lineal (Logit)

Primero, el modelo calcula una suma ponderada de las entradas, exactamente igual que en una regresión lineal. A este resultado (\(z\)) se le conoce como logit o, más formalmente, log-odds.

\[ z = \beta_0 + \beta_1 x_1 + \beta_2 x_2 + \dots + \beta_n x_n \]

• \(\beta_0\) es el intercepto (sesgo).
• \(\beta_{1 \dots n}\) son los coeficientes (pesos) que el modelo aprende.
• El rango de salida de \(z\) es el de todos los números reales: \((-\infty, +\infty)\).

2.2. La Función Sigmoide (Logística)

Dado que una probabilidad debe estar en el rango \([0, 1]\), \(z\) no puede ser el resultado final. La regresión logística aplica la función sigmoide (\(\sigma\)) a \(z\) para “aplastar” (squash) la salida lineal al rango de probabilidad.

\[ P = \sigma(z) = \frac{1}{1 + e^{-z}} \]

• Si \(z \to +\infty\), \(e^{-z} \to 0\), y \(P \to 1\).
• Si \(z \to -\infty\), \(e^{-z} \to +\infty\), y \(P \to 0\).
• Si \(z = 0\), \(e^{-0} = 1\), y \(P = 0.5\).

4. Interpretación de Coeficientes

Debido a esta relación, los coeficientes (\(\beta_i\)) del modelo tienen una interpretación específica:

• Coeficiente \(\beta_i\): Un incremento de una unidad en la variable \(x_i\) (manteniendo las demás constantes) genera un cambio de \(\beta_i\) en el log-odds de la predicción.
• Odds Ratio (OR): Para una interpretación más intuitiva, se utiliza \(e^{\beta_i}\). Un incremento de una unidad en \(x_i\) multiplica los odds por un factor de \(e^{\beta_i}\).

Clasificación binaria (Normal vs No‑Normal)

              precision    recall  f1-score   support

           0      0.778     0.745     0.761        94
           1      0.929     0.940     0.934       332

    accuracy                          0.897       426
   macro avg      0.853     0.842     0.848       426
weighted avg      0.895     0.897     0.896       426